Sau khi hoàn thiện album thứ hai của mình, Give 'Em Enough Rope (1978), The Clash chia tay quản lý Bernard Rhodes[6]. Sự kiện này khiến ban nhạc buộc phải rời khỏi phòng thu ở Camden Town và tìm một địa điểm mới để thu âm. Quyết định lấy cảm hứng từ rockabilly, ska, reggae và jazz[2], họ bắt đầu thực hiện album mới trong khoảng mùa hè năm 1979. Quản lý tour diễn của nhóm, Johnny Green, tìm được cho họ một phòng thu có tên Vanilla Studios nằm phía sau garage nhà mình ở Pimlico[7][8]. The Clash lập tức phác thảo và thu những bản demo đầu tiên, với Mick Jones sáng tác và hòa âm phần âm nhạc còn Joe Strummer phụ trách phần ca từ[2].

Cũng giống như với album trước, The Clash bắt đầu đi từ thể loại đặc trưng của mình là punk rock[9]. Tuy nhiên, trong 2 lần đi tour tại Mỹ vào năm 1979, họ tiếp nhận những ảnh hưởng từ nhạc R&B khi được tiếp xúc với những nghệ sĩ như Bo Diddley, Sam & Dave, Lee Dorsey và Screamin' Jay Hawkins, từ nghệ sĩ hát nhạc đồng quê kiểu mới Joe Ely và ban nhạc punk rockabilly, The Cramps. Những mối quan tâm này cùng với rock 'n' roll đều được xuất hiện trong London Calling[10].

Tháng 8 năm 1979, ban nhạc cùng tới phòng thu Wessex Studios để bắt đầu thu âm album. Họ mời Guy Stevens là nhà sản xuất album lần này chủ yếu nhằm tận dụng hãng đĩa CBS Records[11]. Stevens là một người nghiện rượu và ma túy nặng, và phương pháp sản xuất của ông thì bị cho là không phù hợp[2]. Trong quá trình thu âm, ông có treo nhiều chiếc thang và ghế lộn ngược nhằm tạo không khí nổi loạn của rock 'n' roll[2]. The Clash cộng tác rất tốt với Stevens, đặc biệt là cây bass Paul Simonon khi anh cho rằng công việc đạt được là rất hiệu quả và sáng tạo cho khả năng chơi bass và thu âm của mình. Họ thậm chí còn chơi cả bóng đá trong khoảng thời gian này. Đây cũng là cách giúp họ hiểu nhau hơn mà lại có thể dành tâm trí ra khỏi âm nhạc, và hầu hết những trận đá bóng đều hết sức nghiêm túc. Việc giúp gắn kết các thành viên của ban nhạc đã góp phần làm cho việc thu âm diễn ra dễ dàng hơn và sáng tạo hơn[12]. Album được thu âm trong khoảng 5-6 tuần với 18 giờ làm việc/ngày[13], trong đó có rất nhiều ca khúc được hoàn chỉnh chỉ sau 2 lần thu[2].